在人工智能领域，序列建模将关注点从静态快照 转向 时间流。标准的机器学习任务通常假设 数据点 独立同分布（IID），这意味着 样本的顺序不影响结果。
序列建模明确摒弃这一假设，聚焦于三大核心支柱：
- 违反 排列不变性：在表格数据中， 列的顺序是任意的。而在序列中，顺序才是首要特征。将“猫 吃了老鼠”换成“老鼠吃了猫”，会从根本上改变 语义基准真值 ，尽管词元完全相同。
- 自回归 特性：我们假设在时刻 $t$ 的观测，在数学上 以其历史（$t-1, t-2, \dots, 1$）为条件。 这需要以转移概率来刻画信息是如何演化的。
- 变长映射：与固定的 28x28 像素网格不同，句子或 地震波等序列是 弹性的。模型必须使用一致的参数，处理长度为 $N$ 的输入并产生 长度为 $M$ 的输出。